动手练习|3步用Python运行机器学习

根据经验&＃xff0c;用Python运行机器学习包含了3个步骤&＃xff1a;

1. 获取数据

2. 建立机器学习模型

3. 优化机器学习模型

1.目标

我们有2008~2018年的兽医数据集&＃xff0c;它包含了动物&＃xff08;狗、猫和雪貂&＃xff09;的注册信息。

如上图&＃xff0c;数据集特征包含了时间戳、动物名称、体重&＃xff08;单位Kg&＃xff09;、表皮病学水平、是否有李氏杆菌病。

表皮病学水平的检测是非常昂贵的&＃xff0c;且对动物可能有伤害&＃xff0c;因此我们的目标是建立机器模型&＃xff0c;通过其他特征预测表皮病学水平&＃xff0c;从而防止动物受到伤害并能节约成本。

2.你需要准备什么

• 任何版本的Python&＃xff08;https://www.python.org/downloads/&＃xff09;

• Pip(https://www.makeuseof.com/tag/install-pip-for-python/)

• 安装Sklearn ,Panda&＃xff0c;openblender&＃xff08;利用Pip&＃xff09;

pip install pandas OpenBlender scikit-learn

• 推荐使用Jupyter Notebook的Python编辑器&＃xff08;https://jupyter.org/install&＃xff09;

步骤1&＃xff1a;获取数据

导入将要使用的Python库&＃xff1a;

import OpenBlender
import pandas as pd
import numpy as np
import json
import sklearn
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_error

我们通过OpenBlender API获取数据。您需要在https://www.openblender.io中创建一个acount账户来获得一个令牌和user_id(它是免费的)

首先&＃xff0c;我们定义参数(在本例中它只是数据集的id)&＃xff1a;

# It only contains the id, we&＃39;ll add more parameters later.
parameters &＃61; {&＃39;token&＃39; : &＃39;YOUR_TOKEN&＃39;,&＃39;id_user&＃39; : &＃39;YOUR_USER_ID&＃39;,&＃39;id_dataset&＃39;:&＃39;5db079199516296099c9fb1e&＃39;
}

数据转换为dataframe格式&＃xff1a;

# This function pulls the data and orders by timestamp
def pullObservationsToDF(parameters):action &＃61; &＃39;API_getObservationsFromDataset&＃39;df &＃61; pd.read_json(json.dumps(OpenBlender.call(action,parameters)[&＃39;sample&＃39;]), convert_dates&＃61;False,convert_axes&＃61;False) .sort_values(&＃39;timestamp&＃39;, ascending&＃61;False)df.reset_index(drop&＃61;True, inplace&＃61;True)return df
df_vet &＃61; pullObservationsToDF(parameters)

查看返回的dataframe数据&＃xff1a;

print(df_vet.shape)
df_vet.head()

如上图&＃xff0c;我们有800个数据&＃xff0c;5个特征。

步骤2&＃xff1a;建立机器学习模型

我们首先观察表皮病学水平和体重的关系&＃xff1a;

%matplotlib inline
df_vet.plot.scatter(&＃39;epidermiology_level&＃39;, &＃39;weight_in_kg&＃39;)

由上图可知&＃xff0c;表皮病学水平和体重呈负相关的关系。

我们首先用简单的线性回归模型来学习&＃xff1a;

每个点的误差是给定输入值x&＃xff0c;预测值和真实值的距离&＃xff0c;最小化该误差来选择a和b。

通过数据集构建线性回归模型的代码&＃xff1a;

# First we declare it
regr &＃61; LinearRegression()
# Then we fit (or train) it to relate epidermiology with weight
regr.fit(df_vet[[&＃39;weight_in_kg&＃39;]], df_vet[[&＃39;epidermiology_level&＃39;]])
# Let&＃39;s take a look at the intercpt (Our &＃39;a&＃39;)
print(regr.intercept_)
# And the slope (Our &＃39;b&＃39;)
print(regr.coef_)

回归模型系数a和b的结果&＃xff1a;

把该模型添加到上图&＃xff1a;

axes &＃61; df_vet.plot.scatter(&＃39;epidermiology_level&＃39;, &＃39;weight_in_kg&＃39;)
x_vals &＃61; np.array(axes.get_xlim())
y_vals &＃61; 37.01155578 &＃43; -0.47164364 * x_vals
axes.plot(x_vals, y_vals, &＃39;-&＃39;)

数据集划分为训练集和测试集&＃xff0c;测试集的作用是检测机器学习模型的泛化水平&＃xff1a;

# First we define &＃39;X&＃39; and &＃39;y&＃39;
X &＃61; df_vet[[&＃39;weight_in_kg&＃39;]]
y &＃61; df_vet[[&＃39;epidermiology_level&＃39;]]
# Then we separate 500 to train
X_train &＃61; X[:500]
y_train &＃61; y[:500]
print("Train X and y:")
print(X_train.shape)
print(y_train.shape)
# And 300 to test
X_test &＃61; X[500:]
y_test &＃61; y[500:]
print("Test X and y:")
print(X_test.shape)
print(y_test.shape)

我们利用均方误差&＃xff08;MSE&＃xff09;来测试模型的泛化水平&＃xff1a;

# First we traqin the model with the Test Set
lm &＃61; LinearRegression()
lm.fit(X_test, y_test)
# Then we generate predictions and compare to ‘y’ test
predictions &＃61; lm.predict(X_test)
mean_squared_error(y_test, predictions)

测试集的均方误差&＃xff1a;

输出预测值和真实值结果&＃xff1a;

df_preds_res &＃61; pd.DataFrame({&＃39;y_test&＃39;:y_test[&＃39;epidermiology_level&＃39;], &＃39;y_pred&＃39;:pred[:,0]})
df_preds_res.head(15)

现在让我们看看是否可以通过增加输入变量来优化该模型。

步骤3&＃xff1a;优化ML模型

线性回归的输入值一般是数值型的&＃xff0c;我们首先将特征&＃39;animal&＃39;和&＃39;has_listeriosis&＃39;转换为数值类型。

转换前的数据&＃xff1a;

转换代码&＃xff1a;

#We add the &＃39;categorical_treatment&＃39; parameter and pull again.
parameters &＃61; {&＃39;token&＃39; : &＃39;YOUR_TOKEN&＃39;,&＃39;id_user&＃39; : &＃39;YOUR_USER_ID&＃39;,&＃39;id_dataset&＃39;:&＃39;5db079199516296099c9fb1e&＃39;,&＃39;categorical_treatment&＃39;: {"treatment" : "convert_to_numeric", "exclude" : ["weight_in_kg"]}
}
df_vet_numerical &＃61; pullObservationsToDF(parameters)

转换后的数据&＃xff1a;

为了获得更多有用的特征&＃xff0c;我们将日期细分为许多与时间相关的特征&＃xff0c;如星期几&＃xff0c;几月份。

parameters &＃61; {&＃39;token&＃39; : &＃39;YOUR_TOKEN&＃39;,&＃39;id_user&＃39; : &＃39;YOUR_USER_ID&＃39;,&＃39;id_dataset&＃39;:&＃39;5db079199516296099c9fb1e&＃39;,&＃39;categorical_treatment&＃39;: {"treatment" : "convert_to_numeric",&＃39;exclude&＃39; : ["weight_in_kg"]},&＃39;date_treatment&＃39;:{"treatment":"breakdown"}
}
df_vet_numerical &＃61; pullObservationsToDF(parameters)
df_vet_numerical.columns

特征有&＃xff1a;

数据集划分为训练集和测试集&＃xff1a;

target_variable &＃61; &＃39;epidermiology_level&＃39;
# First we define ‘X’ and ‘y&＃39;
X &＃61; df_vet_numerical.loc[:, df_vet_numerical.columns !&＃61; target_variable].values
y &＃61; df_vet_numerical.loc[:,[target_variable]].values
# Then we separate 500 to train
X_train &＃61; X[:500]
y_train &＃61; y[:500]
print("Train X and y:")
print(X_train.shape)
print(y_train.shape)
# And 300 to test
X_test &＃61; X[500:]
y_test &＃61; y[500:]
print("Test X and y:")
print(X_test.shape)
print(y_test.shape)

现在我们有30个特征构建回归模型&＃xff0c;表达式为&＃xff1a;

对比单变量的线性回归模型&＃xff0c;看看MSE是否有降低。

# First we traqin the model with the Test Set
lm &＃61; LinearRegression()
lm.fit(X_test, y_test)
# Then we generate predictions and compare to ‘y’ test
pred &＃61; lm.predict(X_test)
mean_squared_error(y_test, pred)

由结果可知&＃xff0c;多变量的MSE降低了&＃xff0c;因此多变量的模型性能更好了。

输出预测值和真实值。

df_preds_res &＃61; pd.DataFrame({&＃39;y_test&＃39;:y_test[:,0], &＃39;y_pred&＃39;:pred[:,0]})
df_preds_res.head(15)

推荐阅读

干货 | 清晰易懂的机器学习算法原理介绍

欢迎扫码关注&＃xff1a;